Nguồn gốc lịch sử của võ thuật Nhật Bản có thể được tìm thấy trong truyền thống chiến binh samurai và hệ thống đẳng cấp đã hạn chế việc sử dụng vũ khí của các thành viên khác trong xã hội. Ban đầu, samurai được cho là thành thạo nhiều vũ khí, cũng như kĩ thuật chiến đấu tay không, và đạt được khả năng cao nhất có thể về kỹ năng chiến đấu.

Thông thường, việc phát triển các kỹ thuật chiến đấu được đan xen với các vũ khí được sử dụng để thực hiện các kỹ thuật đó. Trong một thế giới thay đổi nhanh chóng, những vũ khí này liên tục thay đổi, đòi hỏi các kỹ thuật sử dụng chúng liên tục được tái sáng tạo. Lịch sử của Nhật Bản hơi khác thường trong sự cô lập tương đối của nó. So với phần còn lại của thế giới, các vũ khí chiến đấu của Nhật Bản phát triển khá chậm. Nhiều người tin rằng điều này đã tạo cho lớp chiến binh cơ hội nghiên cứu về vũ khí của họ sâu sắc hơn các nền văn hóa khác. Tuy vậy, việc giảng dạy và đào tạo những võ thuật này thì lại phát triển. Ví dụ, trong giai đoạn đầu thời Trung cổ, cây cung và ngọn giáo được đề cao, nhưng trong thời Tokugawa, có ít trận chiến quy mô lớn hơn diễn ra, và thanh kiếm trở thành vũ khí có uy tín nhất. Một xu hướng khác phát triển trong suốt lịch sử Nhật Bản là việc tăng cường chuyên môn hóa về võ thuât, vì xã hội đã trở nên phân tầng hơn theo thời gian..[6]

Các môn võ thuật phát triển hoặc có nguồn gốc từ Nhật Bản rất đa dạng, với sự khác biệt lớn trong các công cụ, phương pháp và triết học đào tạo trong vô số môn phái và phong cách. Điều đó nói rằng, võ thuật Nhật Bản nói chung có thể được chia thành koryū và gendai budō dựa trên việc chúng đã tồn tại tương ứng với trước hoặc sau khi diễn ra Minh Trị Duy tân. Vì gendai budō và koryū thường có cùng nguồn gốc lịch sử, người ta sẽ tìm thấy nhiều loại võ thuật khác nhau (như jujutsu, kenjutsu, hoặc naginatajutsu) ở cả hai loại phân chia.